Vào cuối thế kỷ 19, công sứ tỉnh Quảng Nam là Charles Lemire, người Pháp, đã tiến hành công tác khảo cổ các di tích văn hóa Chăm và đem các di vật tìm được đem về trưng bày tại Đà Nẵng. Sau đó, năm 1900, Trường Viễn Đông Bác cổ (École Française d'Extrême-Orient) tiến hành khai quật khảo cổ ở quy mô lớn hơn. Từ đó, nảy sinh nhu cầu xây dựng một nhà bảo tàng tại Đà Nẵng cho các cổ vật Chăm. Năm 1902, Henri Parmentier của Trường Viễn Đông Bác cổ chính thức đề cử dự án kiến thiết rồi được hai kiến trúc sư người Pháp là Delaval và Auclair thực hiện.[1] Kết quả là một tòa nhà có một số nét kiến trúc Chăm.

Công trình nay là Bảo tàng Chàm được Trường Viễn Đông Bác cổ cho khởi xây năm 1915-6 đến năm 1919 thì hoàn tất và khánh thành với 160 cổ vật điêu khắc. Bộ sưu tập nguyên thủy là do nhà khảo cổ Henri Parmentier thu thập từ thế kỷ 19[2] được bổ túc thêm bằng những phát hiện sau. Năm 1927 kiến trúc sư J. Y. Claeys thuộc trường Viễn Đông Bác cổ đề xướng khuếch trương nhà bảo tàng nhưng dự án trì trệ đến năm 1936 mới hoàn tất. Ngày 11 tháng 3 nhân việc tái khánh thành viện bảo tàng có sự hiện diện của Parmentier, Viện Bác cổ vinh danh ông bằng cách đổi tên Viện Bảo tàng Chàm thành Musée Henri Parmentier. Diện tích mới được dùng để thu nhận thêm bộ sưu tập cổ vật khai quật ở Trà Kiệu[3] và Tháp Mẫm ở Bình Định.[1]

Năm 1946 khi chiến tranh Pháp-Việt lan rộng thì Viện Bảo tàng Chàm bị cướp phá. Thư khố và nhiều cổ vật bị trộm. Đến năm 1948 thì thu thập lại được 150 món, có thứ lưu lạc sang tận bên Lào.[1]

Dưới thời Việt Nam Cộng hòa cơ sở này mang tên Viện Bảo tàng Chàm. Vào thập niên 1950 và 1960 kiến trúc sư Nguyễn Bá Lăng thuộc Viện Khảo cổ cho nới rộng diện tích các sảnh trưng bày một cách hài hòa, bắt nhịp với phần kiến trúc nguyên thủy. Nguyễn Xuân Đồng, người từng làm việc với Parmentier được bổ làm giám đốc. Năm 1972 thì Nguyễn Khôn Liêu đảm nhiệm.[1]

Trong thời gian Chiến tranh Việt Nam qua sự vận động của Viện Bảo tàng Guimet bên Pháp, Viện Bảo tàng Chàm được canh giữ cẩn thận, luôn có lính canh gác thường trực nên không bị thiệt hại.[1]

Sau năm 1975 chính quyền mới tiếp thu và đến cuối thập niên 1980 thì bị kẻ gian đột nhập lấy mất một số cổ vật.[1]

Hơn 40 năm sau, năm 2002, một tòa nhà 2 tầng với khoảng 2 ngàn m² diện tích trưng bày và khoảng 500 m² diện tích kho được xây dựng thêm ở phía sau.